How Reliable Are Semantic-ID Tokenizer Comparisons in Generative Recommendation?
语义ID分词器对比在生成式推荐中有多可靠？
🧭 生成式推荐 · 语义ID碰撞与公平评估 ★ 深度解读
University of Otago · University of New South Wales
揭示语义ID碰撞导致评测指标虚高，提出碰撞修正评估和最小代价零碰撞重分配，促进公平对比。
📌 工作参考价值（4 点）
- 评估生成式推荐模型时必须进行碰撞修正：标准 Hit@K 等指标基于 SID 序列匹配，当多个物品共享同一 SID 时会被高估，实际线上效果可能严重低于离线指标。建议使用 ItemHit@K 或 ItemNDCG@K，按碰撞组大小均分得分，避免误判。
- 零碰撞重分配提供轻量级公平对比基线：ZCR 只改最后一层码字，通过匈牙利算法最小化重分配代价，可在不改变前缀结构的前提下消除碰撞。对于电商中商品标题高度雷同（如不同规格的同款商品）的场景，该方法可低成本生成唯一 ID，适合离线评测和线上哈希索引。
- 纯语义分词容易撞车，建议融合协同信号：RK-Means 等纯基于文本 embedding 的分词器碰撞率高，尤其是 Yelp 这种商户名称重复多的场景。简单的前融合（PPMI+SVD 协同向量 concat 后 PCA）就能大幅降低碰撞、提升 ItemHit@10（Yelp 上+63%）。在实际推荐系统中，可将协同信号与语义表征一起量化，降低同款商品误合并风险。
- 最小代价重分配优于贪心策略：ZCR 与 MQL4GRec 的贪心最近码分配相比，总重分配代价降低 8–24%，说明在强制去重时应全局优化，避免局部最近邻带来的额外量化误差。对于需要在推理时实时查找物品的场景，更小的码本改动意味着更少的索引重建成本。